#Policy Enforcement

3 篇

SCOPE: Compiling Natural-Language Policies into Neurosymbolic Predicate Programs

SCOPE：将自然语言策略编译为神经符号谓词程序

🧭 Agent 策略执行 · 神经符号编译

Plurai

将复杂 Agent 策略编译为可执行神经符号谓词程序，用对抗反例联合优化，实现低成本高稳定策略判决

📌 工作参考价值（4 点）

可将复杂业务合规/风控规则（如广告审核、客服 Agent 禁言/承诺约束）编译为“小模型谓词 + 确定性提取器 + 代码组合”的可执行程序，替代大模型黑盒 judge，降低线上推理成本和延迟。
用对抗反例生成围绕“程序偏离策略”的地方补充训练数据，尤其适合长尾违规场景；训练时先用最弱执行器/小模型优化谓词，再直接迁移到其他小模型部署，减少重复调优。
每个判决可回溯到具体谓词输出，便于风控审计、线上排查和业务规则解释；在需要稳定复现的合规场景，优先考虑这种神经符号方案而非纯 LLM-as-judge。
在电商 Agent 中，可把退换货政策、价格承诺、营销文案限制等自然语言策略转化为确定性谓词，仅对模糊语言判断使用小模型，混合执行以提升整体可靠性。

Agent | 2026-10-21 | HF Daily | score 6/10

APort Vault：基于 Open Agent Passport 的 AI 智能体支付授权基准

🧭 Agent 工具调用授权与安全评估

APort Technologies Inc.

回放 4371 条人类攻击，证明确定性预执行检查可将未授权支付转账从 140 次降至 0 次

📌 工作参考价值（4 点）

在 Agent 执行支付、退款、优惠券发放等高风险工具调用前，增加一个确定性的预执行策略层（如 Open Agent Passport），用白名单校验接收方/账户，而不是依赖 LLM 自身的判断，可显著降低越权操作。
评估 Agent 安全或工具调用时，不要只统计“请求率”或“成功率”，应分解为请求、成功支付、授权决定、成员资格、未授权转账等多个事件，否则指标会掩盖真正的失败模式。
攻击回放与分层 policy 配置（Level 1-4）的思路可迁移到电商 Agent 测试集构建：按风险等级设计不同允许操作范围，在不同配置下回放攻击，并公开数据集以复现结果。
业务中更应投入精力设计清晰的授权边界和确定性执行，而非单纯比较 LLM 能力：本研究发现请求率差异主要来自 policy 配置而非模型本身。

Eval | 2026-09-17 | HF Daily | score 6/10

CONTINUITY：可组合 LLM Agent 安全控制的安全上下文合约

🧭 Agent 安全控制组合验证

ZAST.AI

用 assume-guarantee 合约与认证安全上下文，保证 LLM Agent 跨组件端到端后果完整性

📌 工作参考价值（4 点）

在电商/广告/搜索的 LLM Agent 系统中，跨工具、跨组件调用（商品库、广告投放 API、用户数据）时必须显式传递认证上下文，不能依赖组件内部假设；可借鉴「签名 root grant + 接收回执」模式防止授权被中途丢弃或重放。
设计多 Agent 协作或工具编排时，采用 assume-guarantee 合约显式声明每个组件的输入前置条件和输出保证，避免单组件安全测试通过但组合后出现上下文断裂；适合安全敏感的推荐策略、召回和排序服务。
引入 transformation witness（字段级来源和变换证明）应对数据血缘要求：例如商品信息经清洗、聚合、过滤后产生推荐结果时，能追溯每个字段的修改链，满足合规审计。
工程实现上，可信核心仅 1.5K LOC，验证延迟在毫秒级（proof 4.21ms，端到端 7.17ms），可嵌入实时推荐链路做安全校验，无需引入重型可信执行环境。

Agent | 2026-09-04 | cs.AI | score 6/10